Aproximación convexa de redes ReLU para privacidad diferencial de estado oculto
Nueva técnica de aproximación convexa para entrenar redes ReLU con privacidad diferencial de estado oculto, con resultados comparables a DP-SGD.
#redes relu
Regresión online realizable para redes ReLU
Descubre cómo la entropía métrica permite acotar el error acumulado en regresión online realizable, superando las limitaciones de la clasificación en redes
Generalización en Mínimos Cuadrados No Lineales vía Geometría Aprendida
Aprende cómo la geometría de características aprendidas mejora la generalización en mínimos cuadrados no lineales, reduciendo la dependencia de parámetros.
Entrenamiento conjunto de capas en redes ReLU para modelos lineales
Aprende cómo el descenso de gradiente logra convergencia lineal en redes ReLU, evitando puntos silla y alcanzando el mínimo global.
Aproximación cuantitativa para destilación de flujo en difusión
Nuevo marco de aproximación cuantitativa mejora la destilación de flujo en difusión, reduciendo errores hasta 51.9% con particiones no uniformes.
Tasas óptimas de generalización del descenso de gradiente en clasificación ReLU profunda
Descubre cómo el descenso de gradiente logra tasas de generalización óptimas en redes ReLU profundas con dependencia polinomial de la profundidad, mejorando resultados previos.